OpenAI के भीतर यह बहस हो रही है कि क्या ChatGPT द्वारा उत्पन्न टेक्स्ट को वॉटरमार्किंग तकनीक के माध्यम से चिह्नित किया जाना चाहिए, ताकि छात्रों की नकल को रोका जा सके। वॉटरमार्किंग तकनीक शब्दों और वाक्यांशों की भविष्यवाणी को समायोजित करके एक पता लगाने योग्य पैटर्न उत्पन्न करती है, जिसका उद्देश्य शिक्षकों को होमवर्क की नकल का पता लगाने में मदद करना है, बिना टेक्स्ट की गुणवत्ता को प्रभावित किए। हालाँकि तकनीकी सटीकता उच्च है और साधारण रूपांतरण का प्रतिरोध करती है, लेकिन अन्य मॉडलों का उपयोग करके पुनः लेखन वॉटरमार्क को बाईपास कर सकता है, जिससे चिंताएँ पैदा होती हैं। वॉटरमार्क को लागू करने से कुछ उपयोगकर्ताओं को कलंकित किए जाने का अहसास हो सकता है, जिससे उपयोगकर्ताओं की संख्या में कमी आ सकती है। तकनीकी प्रभावशीलता और उपयोगकर्ता अनुभव के बीच संतुलन बनाने के लिए

हाल ही में, मेटा ने चुपचाप छह अनुसंधान成果 जारी किए, जिसने एआई क्षेत्र में नए अनुप्रयोगों और तकनीकी प्रगति को लाया। इनमें मल्टीमॉडल मॉडल, टेक्स्ट जनरेटेड म्यूजिक मॉडल, ऑडियो वॉटरमार्किंग तकनीक, डेटा सेट आदि जैसे कई प्रोजेक्ट शामिल हैं। आइए एक साथ देखें कि ये अनुसंधान परिणाम वास्तव में कौन-कौन से हैं।

AI तकनीक के विकास ने गहरी फ़र्ज़ीपन छवियों के निर्माण को बहुत आसान बना दिया है, जिससे सामाजिक जोखिमों में वृद्धि हुई है। अध्ययन दर्शाता है कि मौजूदा डिजिटल वॉटरमार्किंग तकनीकें आसानी से दरकिनार की जा सकती हैं, जो AI गहरी फ़र्ज़ीपन की समस्या को नियंत्रित करना मुश्किल बना देती हैं। AI का दुरुपयोग झूठी जानकारी, धोखाधड़ी, और यहां तक कि चुनावी धोखाधड़ी जैसी व्यापक हानियाँ उत्पन्न कर सकता है, जिसके प्रति सावधान रहना आवश्यक है। सटीक डिजिटल वॉटरमार्किंग तकनीक को डिज़ाइन करना एक निश्चित कठिनाई है, लेकिन यह असंभव कार्य नहीं है।